即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/本報資料庫
科技生活

·6 個月前·責任編輯
#人工智慧#數位騷擾#網路威脅#深度偽造#網路霸凌
圖/本報資料庫
圖/本報資料庫
商傳媒|責任編輯/綜合外電報導
摘要

人工智慧(AI)技術正被濫用於數位騷擾,不法分子利用深度偽造、語音複製、AI機器人與虛假社群帳號等工具,進行假冒身分、散播不實資訊與製造惡意內容,使網路霸凌、詐騙及身分冒用更加難以防範,對受害者造成嚴重心理與名譽損害。

人工智慧(AI)技術的快速發展,正被不法分子濫用於數位騷擾,已成為全球日益嚴峻的網路威脅。這類騷擾結合了人工智慧與社群媒體平台、通訊軟體及深度偽造(deepfake)工具,使得假冒身分、散播不實內容及製造惡意影像與語音變得更加容易且逼真。

利用深度偽造技術,騷擾者能將他人的臉孔置換到影片或照片中,製造出虛假的色情內容或不雅影像,甚至讓人們看起來像是說了或做了他們從未做過的事情。此外,僅需數秒的錄音,人工智慧便能複製一個人的聲音,用於製造虛假求救電話、冒充他人散播不實資訊,或透過逼真的語音訊息騷擾受害者。

人工智慧驅動的機器人程式也能在社群媒體平台上大規模生成並發送謾罵訊息、仇恨言論和威脅。騷擾者甚至會利用人工智慧建立虛假社群媒體帳號,這些帳號擁有由人工智慧生成的個人頭像、可信的個人簡介,以及能模仿人類的聊天行為,進而用於跟蹤受害者、散布謠言,甚至操控人際關係或社群。人工智慧工具也被用來產生或修改圖像,製造個人虛假色情圖片或用於勒索的變造照片。

除了個人形象的侵害,人工智慧也能生成虛假新聞文章、偽造截圖和捏造對話,損害個人名譽,騷擾公眾人物或私人,並在網路上製造混亂和恐慌。部分攻擊者甚至透過人工智慧聊天系統建立虛假的浪漫關係,取得受害者信任後進行剝削或勒索,此類行為被稱為「人工智慧社交工程」。

人工智慧之所以加劇數位騷擾的威脅,是因為它大幅降低了技術門檻,擴大了攻擊規模,提高了內容的真實性,並加速了攻擊速度。受害者可能面臨精神健康問題(如焦慮、憂鬱)、名譽受損、學業或職場影響、財務勒索、社會孤立,甚至因虛假證據而導致法律糾紛。

各國政府與社會正積極探討應對策略。例如,在印度,人工智慧相關的騷擾行為可能觸犯《資訊科技法案》中關於網路騷擾的條款,以及《印度刑法典》中與誹謗和刑事恐嚇相關的條款。新興的數位安全法規也正針對深度偽造內容進行立法。面對這類結合科技、匿名性和真實性的新興威脅,提升民眾的數位素養、及早舉報相關事件並強化個人數位衛生習慣,仍是目前最有效的防禦措施。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源